Ashley St. Clair, de 27 anos, alega num processo aberto na quinta-feira em Nova Iorque contra a empresa xAI que as imagens incluem uma foto sua vestida aos 14 anos, alterada para a mostrar em biquíni.

A influenciadora conservadora, de religião judaica, deu como exemplos outras imagens de conteúdo manipulado (`deepfakes`) mostrando-a já adulta em poses sexualizadas e a usar um biquíni com suásticas.

Questionada sobre o processo e as alegações de St. Clair, a xAI disse apenas, numa resposta escrita à agência de notícias Associated Press: "Os media tradicionais mentem".

Os advogados da xAI, que desenvolveu a ferramenta de IA Grok, disponibilizada aos utilizadores da rede social X - também detida por Elon Musk - não responderam até ao momento ao processo.

St. Clair disse que denunciou os `deepfakes` à X depois de terem começado a aparecer, em 2024, e pediu que fossem removidos, por lhe causarem humilhação e sofrimento emocional.

A influenciadora disse que a X respondeu primeiro que as imagens não violavam as políticas da plataforma. Depois, terá prometido não permitir que imagens de St. Clair fossem usadas ou alteradas sem o seu consentimento.

St. Clair disse que a rede social retaliou então, removendo a subscrição paga da X e o selo de verificação, não lhe permitindo ganhar dinheiro com aconta, que tem um milhão de seguidores.

"Sofri e continuo a sofrer dores graves e angústia mental como resultado do papel da xAI na criação e distribuição destas imagens digitalmente alteradas de mim", disse a influenciadora.

"Estou humilhada e sinto que este pesadelo nunca vai acabar enquanto o Grok continuar a gerar estas imagens minhas," acrescentou St. Clair, num documento anexado ao processo.

A influenciadora disse ainda que vive com medo das pessoas que veem os `deepfakes`.

St. Clair, que é mãe de Romulus, filho de Elon Musk, de 16 meses, vive em Nova Iorque (nordeste), onde apresentou o processo, pedindo uma indemnização de valor não divulgado, bem como ordens judiciais que impeçam imediatamente a xAI de permitir a produção de mais `deepfakes` da influenciadora.

Na quinta-feira, a xAI também apresentou uma contra-ação contra St. Clair no estado do Texas (sudoeste), alegando que a influenciadora violou os termos do contrato de utilizador da xAI, que exige que as ações judiciais contra a empresa sejam apresentadas no Texas.

Em comunicado, a advogada de St. Clair, Carrie Goldberg, classificou a contra-acção como uma manobra chocante e sem precedentes.

"Mas, francamente, qualquer jurisdição reconhecerá o cerne das alegações da senhora St. Clair --- que, ao fabricar imagens sexualmente explícitas e não consensuais de raparigas e mulheres, a xAI é um incómodo público e um produto não razoavelmente seguro".

A rede social X anunciou na quarta-feira que implementou medidas para impedir que a ferramenta Grok dispa "pessoas reais", em resposta às críticas e à pressão das autoridades de vários países.

"Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", indicou a rede social de Elon Musk numa mensagem publicada na plataforma.

Na semana passada, uma análise conduzida pela organização não-governamental AI Forensics a mais de 20 mil imagens geradas pelo Grok revelou que mais de metade retratava indivíduos com pouca roupa, 81% dos quais eram mulheres e 2% dos quais pareciam ser menores de idade.

O procurador-geral da Califórnia anunciou na quarta-feira a abertura de uma investigação à xAI.

A medida segue-se à de outros países que estão a rever o funcionamento da ferramenta de IA, incluindo a França, o Reino Unido, a Malásia e a Indonésia.